บรรพชาเป็นสามเณรอยู่ที่วัดประยุรวงศาวาสวรวิหารอยู่ 8 พรรษา เมื่ออายุ 21 ปี อุปสมบทเป็นพระภิกษุที่วัดบวรนิเวศราชวรวิหาร พระบาทสมเด็จพระจอมเกล้าเจ้าอยู่หัวเป็นพระอุปัชฌาย์ ได้รับฉายา “ปุณฺณโก” พระศรีวิสุทธิวงศ์ (ฟัก) เป็นพระกรรมวาจาจารย์ (ภายหลังลาสิกขาออกมาเป็นรับราชการ ได้รับบรรดาศักดิ์สุดท้ายที่พระยาศรีสุนทรโวหาร) ต่อมาได้รับตำแหน่งที่ พระครูสมุห์ ฐานานุกรมในพระบาทสมเด็จพระจอมเกล้าเจ้าอยู่หัว อุปสมบทได้ 8 พรรษา ได้ลาสิกขา ออกมารับราชการเป็นมหาดเล็กในพระบาทสมเด็จพระนั่งเกล้าเจ้าอยู่หัวและพระบาทสมเด็จพระจอมเกล้าเจ้าอยู่หัว รวม 20 ปี ได้รับพระราชทานสัญญาบัตรให้เป็น ขุนสาครวิสัย จุลศักราช 1229 ตรงกับรัตนโกสินทร์ศก 86 ท่านได้บรรพชาอุปสมบทครั้งที่ 2 เมื่ออายุได้ 49 ปี ที่วัดบุปผารามวรวิหาร ธนบุรี มีพระอมรโมฬี (นบ) เป็นพระอุปัชฌาย์ พระปลัดเรือง ธมฺมรกฺขิโต เป็นพระกรรมวาจาจารย์ ได้รับฉายา “ปุณฺณโก” เหมือนเมื่ออุปสมบทครั้งแรก เมื่ออุปสมบทแล้วได้เที่ยวแสวงหาปริเวกธรรมตามอัธยาศัยล่วงไป 3 พรรษา